第三部分"观察性实验"基于两个重要的假设: 无混杂性 (即 可忽略性) 和 重合度. 它们都是很强的假设. 4.1～4.3 会讨论无混杂性不成立的情形, 4.4 会讨论重合度不成立的情形.

1 因果图基础

因果图是因果推断的一种重要的工具. 例如

然后我们关注 ${\displaystyle Z}$ 在 ${\displaystyle Y}$ 上的因果效应, 我们可以按如下流程读取 $$\{\begin{array}{rl}& X\sim F_X(x),\\ & Z=f_Z(X,{\epsilon }_Z),\\ & Y(z)=f_Y(X,z,{\epsilon }_Y(z)),\end{array}$$ 这里对 ${\displaystyle z=0,1}$ 都有 ${\displaystyle {\epsilon }_Z\perp \perp {\epsilon }_Y(z)}$. 这里协变量 ${\displaystyle X}$ 从分布 ${\displaystyle F_X(x)}$ 生成, 实验分配是一个关于 ${\displaystyle X}$ 和随机误差项 ${\displaystyle {\epsilon }_Z}$ 的函数, 潜在结果 ${\displaystyle Y(z)}$ 是一个 ${\displaystyle X}$, 分配结果 ${\displaystyle z}$ 和随机误差项 ${\displaystyle {\epsilon }_Y(z)}$ 的函数. 这样 ${\displaystyle Z\perp \perp Y(z)|X}$, 也即无混杂性假设成立.

如果我们的因果图为

我们可以这样读取 $$\{\begin{array}{rl}& X\sim F_X(x),\\ & U\sim F_U(u),\\ & Z\sim F_Z(X,U,{\epsilon }_Z),\\ & Y\sim F_Y(X,U,z,{\epsilon }_Y(z)),\end{array}$$ 这里 ${\displaystyle {\epsilon }_Z\perp \perp {\epsilon }_Y(z)}$, ${\displaystyle z=0,1}$. 所以 ${\displaystyle Z\perp \perp Y(z)|(X,U)}$, 但是 ${\displaystyle Z\perp ̸\perp Y(z)|X}$, 也即无混杂性对 ${\displaystyle (X,U)}$ 成立但并不对 ${\displaystyle X}$ 单独成立. 这样 ${\displaystyle U}$ 就是个不可观测的混杂变量.

2 评估无混杂性假设

无混杂性假设 $$Z\perp \perp Y(1)|X,Z\perp \perp Y(0)|X,$$ 说明$$\begin{array}{rl}& \mathbb{P}(Y(1)|Z=1,X)=\mathbb{P}(Y(1)|Z=0,X),\\ & \mathbb{P}(Y(0)|Z=1,X)=\mathbb{P}(Y(0)|Z=0,X).\end{array}$$ 所以无混杂性假设要求反事实分布观察到的分布相等: $$\begin{array}{rl}& \mathbb{P}(Y(1)|Z=0,X)=\mathbb{P}(Y(1)|Z=1,X),\\ & \mathbb{P}(Y(0)|Z=0,X)=\mathbb{P}(Y(0)|Z=1,X).\end{array}$$ 因为反事实分布无法直接从数据识别, 所以无混杂性假设本质上无法在没有额外假设的情况下检验. 我们介绍两种方法来"评估"无混杂性是否成立^[1].

2.1 使用阴性结果

去找一个类似 ${\displaystyle Y}$ 的结果 ${\displaystyle Y^{\mathrm{n}}}$ , 理想状态下有着相同的混杂变量. 如果我们相信 ${\displaystyle Z\perp \perp Y(z)|X}$, 则我们相信 ${\displaystyle Z\perp \perp Y^{\mathrm{n}}(z)|X}$. 进一步地 $$\tau (Z\to Y^{\mathrm{n}})=\mathbb{E}[Y^{\mathrm{n}}(1)-Y^{\mathrm{n}}(0)].$$ 这样我们可以判断是否成立 ${\displaystyle \tau (Z\to Y^{\mathrm{n}})=0}$:

2.2 使用阴性暴露

阴性暴露是阴性结果的对偶. 假设 ${\displaystyle Z^{\mathrm{n}}}$ 是一个分配变量, 类似 ${\displaystyle Z}$, 有相同的混杂变量结构. 如果我们相信 ${\displaystyle Z\perp \perp Y(z)|X}$, 则 ${\displaystyle Z^{\mathrm{n}}\perp \perp Y(z)|X}$. 进一步地, $$\tau (Z^{\mathrm{n}}\to Y)=\mathbb{E}[Y(1^{\mathrm{n}})-Y(0^{\mathrm{n}})].$$ 然后判断是否有 ${\displaystyle \tau (Z^{\mathrm{n}}\to Y)=0}$.
也就是说, 我们用一个 "假原因" 对应 ${\displaystyle Z}$ 来重新分配.

3 过度调整的问题

我们讨论了无混杂性 ${\displaystyle Z\perp \perp \{Y(1),Y(0)\}|X}$ 下因果效应的估计. 这是个在 ${\displaystyle X}$ 条件下的假设. 如何选取 ${\displaystyle X}$ 来实现条件独立是很重要的. 我们需要尽可能扩大 ${\displaystyle X}$ 涉及的范围. 但是有些时候这个建议是不对的.

3.1 M 偏差

考虑下图:

我们可以得到读取顺序: $$\{\begin{array}{rl}& U_1\perp \perp U_2,\\ & X=f_X(U_1,U_2,{\epsilon }_X),\\ & Z=f_Z(U_1,{\epsilon }_Z),\\ & Y=f_Y(U_2,{\epsilon }_Y)=Y(z).\end{array}$$ 这里 ${\displaystyle ({\epsilon }_X,{\epsilon }_Z,{\epsilon }_Y)}$ 是独立的随机误差项. ${\displaystyle X}$ 能被观测, 但 ${\displaystyle U_1,U_2}$ 不能被观测. 如果我们改变 ${\displaystyle Z}$ 的值, ${\displaystyle Y}$ 并不会被改变. 所以 ${\displaystyle Z}$ 对 ${\displaystyle Y}$ 的因果效应为 ${\displaystyle 0}$: $${\tau }_{\mathrm{PF}}=\mathbb{E}[Y|Z=1]-\mathbb{E}[Y|Z=0]=0.$$ 这意味着不修改协变量 ${\displaystyle X}$, 这个简单的估计是无偏的. 但是在 ${\displaystyle X}$ 上, ${\displaystyle U_1\perp ̸\perp U_2|X}$, 因此 ${\displaystyle Z\perp ̸\perp Y|X}$, 以及一般地 $$\int \{\mathbb{E}[Y|Z=1,X=x]-\mathbb{E}[Y|Z=0,X=x]\}f(x)\mathrm{d}x\ne 0.$$
我们考虑一个线性模型 $$\{\begin{array}{rl}& X=a{U}_1+b{U}_2+{\epsilon }_X,\\ & Z=c{U}_1+{\epsilon }_Z,\\ & Y=Y(z)=d{U}_2+{\epsilon }_Y,\end{array}$$ 这里 ${\displaystyle (U_1,U_2,{\epsilon }_X,{\epsilon }_Z,{\epsilon }_Y)\stackrel{\mathrm{i}.\mathrm{i}.\mathrm{d}}{\sim }\mathcal{N}(0,1)}$. 我们有 $$\mathrm{Cov}(Z,Y)=\mathrm{Cov}(c{U}_1+{\epsilon }_Z,d{U}_2+{\epsilon }_Y)=0,$$ 但 $$\begin{array}{rl}{\rho }_{ZY|X}& =\frac{{\rho }_{ZY}-{\rho }_{ZX}{\rho }_{YX}}{\sqrt{1-{\rho }_{ZX}^2}\sqrt{1-{\rho }_{YX}^2}}\propto -{\rho }_{ZX}{\rho }_{YX}\\ & \propto -\mathrm{Cov}(Z,X)\mathrm{Cov}(Y,X)=-abcd,\end{array}$$ 是 ${\displaystyle Z}$ 到 ${\displaystyle Y}$ 路径上的系数的乘积. 所以不调整的估计量是无偏的, 但是调整后偏差则正比于 ${\displaystyle abcd}$.

3.2 Z 偏差

考虑下面的因果图

数据读取流程为 $$\{\begin{array}{rl}& Z=aX+bU+{\epsilon }_Z,\\ & Y(z)=\tau z+cU+{\epsilon }_Y,\end{array}$$ 这里 ${\displaystyle (U,X,{\epsilon }_Z,{\epsilon }_Y)\stackrel{\mathrm{i}.\mathrm{i}.\mathrm{d}}{\sim }\mathcal{N}(0,1)}$. 我们有 ${\displaystyle X\perp \perp U}$, ${\displaystyle X\perp ̸\perp Z}$, 且 ${\displaystyle X}$ 只通过 ${\displaystyle Z}$ 影响 ${\displaystyle Y}$. 不调整的估计量为$$\begin{array}{rl}{\tau }_{\mathrm{unadj}}& =\frac{\mathrm{Cov}(Z,Y)}{\mathrm{Var}(Z)}=\frac{\mathrm{Cov}(Z,\tau Z+cU)}{\mathrm{Var}(Z)}\\ & =\tau +\frac{c\mathrm{Cov}(aX+bU,U)}{\mathrm{Var}(Z)}=\tau +\frac{cb}{a^2+b^2+1},\end{array}$$ 偏差为 ${\displaystyle \frac{bc}{a^2+b^2+1}}$. 通过 ${\displaystyle Y}$ 在 ${\displaystyle (Z,X)}$ 上的 OLS 得到的调整后的估计量满足 $$\{\begin{array}{rl}& \mathbb{E}[Z(Y-{\tau }_{\mathrm{adj}}Z-\alpha X)]=0,\\ & \mathbb{E}[X(Y-{\tau }_{\mathrm{adj}}Z-\alpha X)]=0.\end{array}$$ 求解上述方程组, 得到 $${\tau }_{\mathrm{adj}}=\tau +\frac{bc}{b^2+1},$$ 误差放大了.

一个直观解释是, 实验处理 ${\displaystyle Z}$ 是一个关于 ${\displaystyle X,U}$ 和随机误差项的函数. 如果给定 ${\displaystyle X}$, ${\displaystyle Z}$ 就没那么随机了, 不可观测的 ${\displaystyle U}$ 带来的混杂偏差会被放大.

3.3 观察性实验中, 我们应该调整什么协变量?

我们永远不会知道真的生成数据的流程. 但是下面的例子帮我们说明很多想法. 它已经排除了 M 偏差的可能.

• ${\displaystyle X}$ 既影响实验处理有影响结果. 给定 ${\displaystyle X}$ 能保证无混杂性假设.
• ${\displaystyle X_R}$ 是纯粹的随机噪音, 不影响 ${\displaystyle Z,Y}$. 在分析中包含它不会让估计有偏差但会带来更多的不必要的多变性.
• ${\displaystyle X_Z}$ 是个工具变量, 只通过实验处理影响结果. 在分析中包含它不会让估计有偏差但会带来更多的不必要的多变性. 但是如果有未观测的混杂变量, 包含它会加大偏差.
• ${\displaystyle X_Y}$ 只影响结果, 不影响实验处理. 不在它的条件下无混杂性假设成立. 因为它们对结果有预测作用, 所以包含他们通常会提升精度.
• ${\displaystyle X_I}$ 被实验处理和结果影响. 它是处理后的变量, 不是处理前的协变量. 如果目的是推断实验处理在结果上的影响, 就不应该包含它.

如果我们相信上述因果图, 我们至少应该调整 ${\displaystyle X}$ 来移除偏差, 以及 ${\displaystyle X_Y}$ 来减小方差.